L’Ai predittiva nuova frontiera della repressione
Strumenti di polizia L’annuncio arriva dal ministro dell’interno: l’Ia servirà per scoprire i colpevoli dei reati, ma anche per prevenirli
Carabinieri con un cane robot a Roma – Ansa/Giuseppe Lami
La polizia potrà utilizzare l’intelligenza artificiale per scoprire i colpevoli dei reati, ma anche per prevenirli. L’annuncio arriva dal ministro dell’interno, Matteo Piantedosi, al termine del consiglio dei ministri di ieri, che ha approvato i decreti legislativi che attuano il regolamento europeo sull’intelligenza artificiale, già recepito nella normativa italiana. Nella conferenza stampa che ha seguito la riunione, Piantedosi ha spiegato i criteri con cui scatterà il ricorso all’intelligenza artificiale nel campo della prevenzione e della repressione del crimine.
Per esempio, sarà «limitato» l’uso dei sistemi di identificazione biometrica remota negli spazi pubblici. Vi si potrà ricorrere «per finalità tassative di prevenzione di ordine pubblico (sic) e sicurezza e ricerca di persone». Le autorità di polizia dovranno chiedere un’autorizzazione a un giudice, che la concederà al massimo per quindici giorni. Tuttavia, ed è la novità più significativa, nei casi di urgenza le forze di polizia potranno agire senza permesso con una semplice comunicazione al magistrato che avrà tre giorni per convalidarne ex post l’utilizzo.
A maggior ragione, l’intelligenza artificiale potrà essere usata dalle forze di polizia dopo la commissione di un reato. In questo caso, saranno adoperate le tecnologie di riconoscimento facciale attraverso i sistemi di videosorveglianza – si pensi alle telecamere di una stazione ferroviaria – per identificare persone già indiziate sulla base di elementi oggettivi.
Il decreto non si occupa solo di ordine pubblico. Prescrive anche obblighi e responsabilità per chi sviluppa i sistemi di intelligenza artificiale e per l’imprenditore che li utilizza nel mondo del lavoro, prevedendo il divieto di licenziare un dipendente solo sulla base di un sistema automatico, in realtà già affermato dal regolamento generale per la protezione dei dati personali. Altri articoli riguardano l’istruzione, la pubblica amministrazione e la sanità.
La disciplina dell’intelligenza artificiale a scopo di polizia presentata da Piantedosi, però, è la vera novità e fa temere maggiormente per le garanzie dei cittadini. L’identificazione a distanza con tecnologie biometriche nello spazio pubblico senza autorizzazione e in assenza di un reato già commesso, sebbene limitata ad alcune finalità, finora era una prerogativa del cinema di fantascienza alla «Minority Report».
Stavolta però non è un film di Spielberg. Sarà il senso di autodisciplina delle nostre questure a decidere se ci si trovi di fronte a una minaccia imminente che giustifichi l’attivazione del dispositivo tecnologico. Basta pensare alle ordinarie dinamiche che accompagnano manifestazioni di protesta e cortei di qualche rilevanza, durante le quali parole come «terrorismo» assumono geometria variabile, per dubitare che i diritti siano al sicuro. Nel caso di abusi sarà un giudice a stabilire che non si poteva fare e a ordinare la distruzione dei dati raccolti. Se però il giudice dà il via libera e la minaccia non si manifesta, la questura potrà sempre sostenere che la deterrenza tecnologica è stata efficace, giustificandola quasi per definizione. E in questa eventualità dove finiranno quelle informazioni?
In ogni caso, il vaglio del giudice più garantista non può impedire che l’intelligenza artificiale usata dai poliziotti cada nei tipici errori che la letteratura scientifica documenta da anni. Sono innumerevoli i casi noti di sistemi intelligenti usati a scopo predittivo che finiscono per riprodurre le stesse distorsioni presenti nei dati con cui sono stati addestrati: se un reato viene commesso in maggioranza da persone straniere, in un’indagine sullo stesso crimine l’intelligenza artificiale segnalerà come sospetta una persona migrante e non una col passaporto italiano, anche a parità di indizi a carico. Nessun sistema predittivo ne è immune.
Infine, l’uso dell’intelligenza artificiale contraddice i principi di «rispetto delle garanzie inerenti al diritto di difesa e ai dati personali dei terzi, nonché dei principi di proporzionalità, non discriminazione e trasparenza» affermati dalla legge delega di cui il decreto è attuazione. Per come funzionano le reti neurali, infatti, nemmeno chi ha creato un’intelligenza artificiale predittiva può ricostruire in dettaglio la catena decisionale che porta a sospettare di qualcuno. Non serve Kafka né Spielberg per capire che smontare un’accusa senza conoscere le prove a carico è impossibile. Ma è in questa scatola nera che vuole chiuderci il governo.
( da https://ilmanifesto.it )